技術 [Day 30]：完賽回顧——從風險要求走到可驗證的 AI Guardrails

寫到第三十天，這個系列也要告一段落了；雖然因為某些緣故導致比賽中斷了，但還是想要把整個系列寫清楚，也讓自己這些年累積的經驗沉澱下來。 前面從企業為什麼需要 AI...

技術 [Day 29]：Enterprise Guardrails 應該放在哪裡？比較 App、Sidecar、Central Service、Gateway＋BYOG 與 Provider-native

筆者在過去文章中提到的眾多 Guardrails案例、看起來只是多加一項檢查，實際在開發和部署時時卻得先問： 規則放在哪裡？ 如果寫在各個應用程式裡，哪...

技術 [Day 28]：實務上 Guardrails 不會只有一個：多層防護到底應該怎麼組合？

Day 27 談的是如何選擇 Guardrails 元件。選好之後，企業還要面對另一個問題：當業務規則改變，這些元件能不能跟著調整，並且知道調整後的防護是否仍然...

技術 [Day 27]：Regex、NER、Classifier、Guardian LLM、LLM Judge 到底怎麼選？

選 Guardrails 元件，可以先從「這次需要拿回什麼結果」開始。 假設採購助手正在整理一份供應商比較報告。候選內容夾著不需要交付的姓名與私人電話，也多了一...

技術 [Day 26]：等模型輸出 / 執行完再審查就太晚了嗎？來看看 Streaming Guardrails 的使用情境和能做到甚麼

等模型講完才審查，不一定太晚。回覆如果還留在伺服器端，檢查通過後才交付，就仍然來得及阻擋；反過來，即使護欄在生成途中持續檢查，只要文字先送到了使用者端，後面的阻...

技術 [Day 25]：Guardian LLM 到底是什麼？為什麼不用一般 LLM 判 Safe / Unsafe 就好？

拿一般的大型語言模型（LLM），加上一段「請判斷這段文字是否安全，只回答 Safe 或 Unsafe」的提示，就能開始做安全判斷。既然如此，為什麼還要另外找一個...

技術 [Day 24]：當 Agent 不只回答、還會執行動作：Guardrails 該從 Content 走到 Action

當客服能直接建立申請、修改訂單或執行退款，Guardrails 就需要回答：這個 Agent 在這次任務中，被允許把流程推進到哪裡？ 一段回覆可以沒有髒話、沒有...

技術 [Day 23]：RAG 找回來的文件也可能攻擊你：Prompt Injection 該在哪裡攔？

產品文件可以提供保固條件；客服是否能收集資料、把資料送到哪裡，則由服務本身的政策與權限決定。RAG 把文件放進模型的上下文時，這兩種不同的權力，很容易在同一段文...

技術 [Day 22]：Guardrails 可以防止幻覺嗎？從企業 RAG 的 Groundedness 談起

Guardrails 可以在回覆交付前，攔下部分缺乏來源支持的內容。但要說它「防止幻覺」，還得先問：這次檢查依據哪份資料，檢查了回答裡哪些主張？ 前一篇談的是客...